Shcherbytsky sinh ra tại Verkhnodniprovsk vào ngày 17 tháng 2 năm 1918, con của Vasily Grigorievich Shcherbytsky (1890-1949) và Tatyana Ivanovna Shcherbitskaya (1898-1990), chỉ hai tuần sau khi lực lượng Xô viết tiếp quản thành phố trong Chiến tranh Ukraina-Xô viết. Trong những năm đi học, ông từng là một nhà hoạt động và là thành viên của Komsomol từ năm 1931. Năm 1934, khi còn đi học, ông trở thành người hướng dẫn và vận động cho ủy ban quận của Komsomol. Năm 1936, ông vào Khoa Cơ khí tại Học viện Công nghệ Hóa học Dnepropetrovsk. Trong thời gian đào tạo, ông làm việc với tư cách là người vẽ sơ đồ thiết kế, nhà thiết kế và người điều khiển máy nén khí trong các nhà máy tại Dnepropetrovsk. Shcherbytsky tốt nghiệp Học viện Công nghệ Hóa học Dnepropetrovsk năm 1941 và cùng năm đó trở thành đảng viên Đảng Cộng sản Liên Xô.[1]